Cha Hoàn Ôn là Hoàn Di, thái thú Tuyên thành (An Huy). Ngày Hoàn Ôn chưa đầy 1 tuổi, có người bạn thân của Hoàn Di là Ôn Kiệu tới chơi, tỏ ra rất quý ông. Vì vậy Hoàn Di liền đặt tên con theo họ của bạn là Hoàn Ôn.

Tương truyền trên mặt Hoàn Ôn có 7 nốt ruồi đen, được coi là quý tướng.